Năm 402 đời Tấn An Đế, Phiêu kị tướng quân Tư Mã Nguyên Hiển do lo ngại thế lực của Hoàn Huyền (con trai đại tướng Hoàn Ôn) ở Kinh châu, bèn quyết định cất quân thảo phạt, cử Lưu Lao Chi làm tiên phong, thống suất Bắc phủ binh tiến công. Tuy nhiên, Lưu Lao Chi không tuân phục Tư Mã Nguyên Hiển và không muốn giao chiến với Hoàn Huyền. Nhân cơ hội đó, Hoàn Huyền suất quân tiến về kinh thành Kiến Khang. Lưu Dụ nghe tin, khuyên Lưu Lao Chi suất quân tiến công nhưng Lao Chi vẫn không chịu và bỏ sang hàng Hoàn Huyền. Lưu Dụ lại cùng Hà Vô Kị cực lực khuyên giải nhưng không có kết quả. Cuối cùng Lao Chi đầu hàng Hoàn Huyền. Hoàn Huyền nhân cơ hội đó, tiêu diệt được Tư Mã Nguyên Hiển và Tư Mã Đạo Tử, nắm quyền khống chế triều đình. Sau đó, ông ta tước hết binh quyền của Lưu Lao Chi, đày sang Quảng Lăng[16]. Lưu Lao Chi tức giận, đưa quân phản lại Hoàn Huyền và sai người đến Hạ Bi cầu Lưu Dụ giúp đỡ. Lưu Dụ biết Lưu Lao Chi không thể nào đánh thắng được Hoàn Huyền nên không chịu giúp. Cuối cùng Lao Chi thua trận và tự sát.

Hoàn Huyền khống chế được triều chính, bèn phong Lưu Dụ làm Trung binh tham quân. Cùng năm đó, Lưu Dụ lại đưa quân tiến đánh dư đảng của Tôn Ân là Lư Tuần. Sau khi thắng trận trở về, ông được phong chức Bành Thành nội sử.

Năm 403, Hoàn Huyền ép Tấn An Đế nhường ngôi, lập ra triều Sở[17]. Năm 404, Lưu Dụ cùng Hoàn Tu vào triều đình Kiến Khang triều kiến Hoàn Huyền, được tiếp đãi trọng thể. Tuy nhiên hoàng hậu của Hoàn Huyền là Lưu thị khuyên ông ta nên giết chết Lưu Dụ nhưng Huyền không nghe theo.

Thấy Hoàn Huyền không được lòng dân chúng, nên khi trở về Kinh Khẩu, Lưu Dụ triệu Hà Vô Kị, Lưu Nghị, Mạnh Sưởng, Gia Cát Trường Dân, Vương Nguyên Đức bàn kế hoạch thảo phạt Hoàn Huyền, định ước thời gian để bốn vùng Kinh Khẩu, Quảng Lăng, Dịch Dương[18] và Kiến Khang[19] cùng nhau khởi binh. Ngày 24 tháng 3 năm 404, Lưu Dụ bỏ đi săn để chuẩn bị tác chiến. Sáng ngày 25 tháng 3 năm 404, Lưu Dụ cùng các nơi đồng loạt khởi binh, giết chết Hoàn Tu. Tư mã của Hoàn Tu là Điêu Hoằng đem quân chống cự lại. Lưu Dụ bèn trá xưng là thứ sử Giang châu Quách Sưởng đang ở Tầm Dương[20] đón Tấn An Đế phục vị. Sau đó ông đưa quân đánh bại Điêu Hoằng, thu phục Kinh Khẩu. Cùng lúc Mạnh Sưởng khống chế được Quảng Lăng, cùng Lưu Dụ hội quân. Ông được tôn làm minh chủ, Tổng đốc Từ châu sự. Đến ngày 26 tháng 3, liên quân tiến công vào Kiến Khang.

Hoàn Huyền phái Ngô Phủ và Hoàng Phủ Phu đưa quân kháng cự Lưu Dụ. Lưu Dụ đưa quân từ Giang Thừa[21], giết Ngô Phủ và Hoàng Phủ Phu. Ngày 28 tháng 3, Lưu Dụ tiến công núi Phúc Chu và nhanh chóng dùng hỏa công đánh bại quân phòng thủ của Hoàn Huyền. Hoàn Huyền bỏ chạy.

Ngày Nhâm Tuất tháng ba (tức 31 tháng 3), Lưu Dụ được tiến cử làm Sử trì tiết, Đô đốc quân sự tám châu Dự, Thanh, U, Ký, Tịnh, Dương, Duyện, Từ và chức vụ thứ sử Từ Châu. Ông đưa quân tiến vào Kiến Khang và phái các tướng truy kích Hoàn Huyền, cuối cùng giết chết được Hoàn Huyền[22].

Lưu Dụ đưa quân về Giang Lăng[23], đón Tấn An Đế về kinh phục vị. Cùng lúc đó, dư đảng họ Hoàn tại Kinh châu lại nổi lên, đưa quân đánh Giang Lăng. Năm 405, Lưu Dụ tái thu phục Giang Lăng và đón được Tấn đế về Kiến Khang, sau đó trở về Đan Đồ.

Năm 406, Lưu Dụ được bái làm Dự Chương quận công, thực ấp vạn hộ[24]. Đến năm 407, Lưu Dụ được phong chức Thị trung, Xa kị tướng quân, Khai phủ nghi đồng tam ti, thứ sử các châu Kinh, Tư, Lương, Ích, Ninh, Ung, Lương, Tịnh, Lục Thượng thư sự, nắm toàn bộ quyền lực trong triều đình[25][26].